Role-Agent: Bootstrapping LLM Agents via Dual-Role Evolution
Role-Agent：让单一 LLM 扮演代理与环境双重角色，自举式协同进化
🧭 LLM Agent 自举式协同进化 · 过程奖励 ★ 深度解读
University of Science and Technology of China · AMAP, Alibaba Group
用一个 LLM 同时做 agent 和环境，通过预测未来状态和分析失败模式实现自举式共进化，平均提升超 4%
📌 工作参考价值（4 点）
- 模拟环境自生成与针对性训练：在对话推荐、客服 Agent 等场景，可用同一 LLM 根据历史失败交互（如用户不满意的对话）分析失败模式，自动检索并复现类似任务，实现针对性微调，无需人工构造样本。
- 预测用户状态作为额外奖励信号：在交互式推荐/搜索中，可在 agent 动作后要求其预测用户/环境下一步状态（如用户下一句话、页面跳转），将预测匹配度作为过程奖励来调制任务奖励，鼓励模型理解动作后果，避免随机成功带来的奖励误导。
- 双角色复用降低工程复杂度：无需额外部署专门的环境模拟模型或任务生成器，直接用同一个 LLM 切换角色完成数据增广和训练，适合资源受限或快速迭代的场景。
- 状态分组优势计算：借鉴 GiGPO 的状态分组思想，可按相同状态（如用户类似意图）对交互中的动作进行分组归一化优势，减少时序噪声，提升梯度的稳定性，可直接移植到 PPO/GRPO 训练流程中。